Frederick chào đời năm 1122, năm 1147 ông trở thành Quận công xứ Schwaben, rồi chỉ một thời gian ngắn sau, tháp tùng chú của mình là vua Konrad III của Đức, tiến hành cuộc Thập tự chinh thứ hai. Cuộc thập tự chinh thất bại thảm hại, nhưng Frederick lại nổi bật lên, và giành được sự tin tưởng tuyệt đối từ người chú của mình. Khi vua Konrad qua đời vào tháng 2 năm 1152, chỉ có Frederick và Giám mục Bamberg có mặt tại giường bệnh của ông, và chứng thực rằng Konrad trao vương hiệu lại cho Frederick, để nối nghiệp mình. Frederick Barbarossa theo đuổi ngai vàng một cách đầy nhiệt tình, và tới ngày 4 tháng 3, các Tuyển hầu tước bầu ông làm Vua La Mã Đức. Ông lên ngôi tại Aachen vài ngày sau, khi đó ông 28 tuổi.[8] Khi đó, có sự phân biệt giữa việc được chọn lên làm "vua người La Mã", nhưng lên ngôi tại Đức, và với việc đăng quang tại Rôma, và chính thức nhận đế hiệu. Ông nhận vương miện Hoàng đế Đế quốc La Mã thần thánh từ Giáo hoàng, tại Rôma ngày 18 tháng 6 năm 1155.[9] Frederick I là người nhà Hohenstaufen theo phía cha, và là người nhà Welf theo phía mẹ, tức là hai dòng họ hùng mạnh nhất nước Đức khi đó.

Lúc đó vương quyền rất yếu, vua không có thực quyền. Nhà vua được các công vương bầu lên, nhưng chỉ cai quản lãnh địa riêng của mình, và không thực sự có quyền gì trên các phần khác của vương quốc. Vương miện hoàng đế được truyền từ dòng họ này sang dòng họ khác, để ngăn ngừa một dòng họ nào chiếm lấy làm của riêng mình. Khi Frederick I Hohenstaufen lên ngôi vua năm 1152, vương quyền thực tế đã vô chủ trong 25 năm, và ở một chừng mực nào đó là hơn 80 năm. Tài lực khi đó tập trung chủ yếu ở các thành phố giàu có miền bắc Ý, nơi chừng nào theo danh nghĩa vẫn thuộc về hoàng đế Đức[10] Dòng dõi Salia chấm dứt khi vua Heinrich V từ trần năm 1125. Các thân vương Đức không chịu trao vương miện cho cháu vua là quận công Schwaben, vì sợ rằng ông này sẽ tập trung vương quyền của Heinrich V. Thay vào đó, họ chọn Lothiar (1125 - 1137), ông này vướng vào vòng tranh chấp với nhà Hohenstaufen, và thông gia với nhà Welf. Một người của nhà Hohenstaufen giành được ngai vàng là Konrad III (1137 - 1152), và khi Frederick Barbarossa kế nhiệm chú mình, ông có cơ hội tốt để chấm dứt sự xung khắc giữa hai nhà, vì ông xuất thân từ cả hai nhà. Nhưng quận công Welf xứ Sachsen là Heinrich Sư tử không hài lòng. Ông tiếp tục coi dòng vua Hohenstaufen là địch thủ. Barbarossa có các lãnh địa Schwaben và Franken, có cá tính mạnh mẽ, nhưng cũng chỉ có thế, để xây dựng nên đế quốc của mình.[11]

Nước Đức mà Frederick muốn thống nhất khi đó là một tập hợp chắp vá gồm hơn 1.600 tiểu quốc, mỗi tiểu quốc cai trị bởi một ông hoàng. Một vài tiểu quốc như Bayern và Sachsen tương đối lớn, đa phần còn lại nhỏ đến mức khó mà chỉ ra được trên bản đồ.[12] Danh vị dành cho vua Đức khi đó là "Caesar", "Augustus" và "hoàng đế người La Mã". Lúc Frederick đăng quang, các danh tước đó chỉ còn là hư danh[13] Frederick là một người thực tế, ông đối tiếp các vương hầu Đức trên cơ sở hai bên cùng có lợi. Không giống như Henry II của Anh, Frederick không tìm cách chấm dứt chế độ phong kiến Trung Cổ, mà tìm cách hồi phục nó, nhưng điều này vượt quá khả năng của ông. Những phe phái lớn nhất trong cuộc nội chiến tranh giành ảnh hưởng tại Đức là Giáo hoàng, Hoàng đế, phe Ghibellini - tức nhà Hohenstaufen, và phe Guelfo - tức nhà Welf. Không phe nào trong số đó nổi trội hẳn lên được.[14]